دوران كودكى پس از درگذشت پدر ، محمّد جواد مغنيه و برادر ديگرش احمد ، دوران كودكى بدون حضور پدر را با تمام مشكلات آن تجربه كردند . آنها نخست به منزل برادر بزرگ‌ترشان شيخ عبد الكريم مغنيه رفتند و آن‌جا به مدّت دو سال از زندگى نسبتا خوبى برخوردار بودند ؛ اما با رفتن شيخ عبد الكريم به نجف ، محمّد جواد دوازده ساله ، بىسرپرست شد او و برادرش احمد در روستاى « طيردبا » با تنگدستى بسيار و مشكلات فراوان دوران يتيمى را مىگذراندند . سختىها و مشكلات معيشتى بسيار ، محمّد جواد را ناگزيرساخت مانند ديگر جوانان روستا به بيروت سفر كند ؛ امّا او هزينه سفر به بيروت را نيز نداشت و به ناچار مسافت بين روستا و بيروت را در دو روز پياده طى كرد . در بيروت براى تأمين مخارج زندگى و سفر به نجف بارها به‌دست‌فروشى پرداخت . او مدتى كتاب‌فروشى كرد و پس از آن ، بستنىفروشى و . . . پس از آن‌كه مغنيه هزينه‌هاى سفر به نجف را فراهم نمود براى گرفتن پاسپورت اقدام كرد ؛ امّا دولت به عللى از دادن پاسپورت به وى امتناع ورزيد ؛ درنتيجه او ناگزير شد پنهانى و غيرقانونى به عراق سفر كند . مغنيه در نجف محمّد جواد مغنيه در نجف ، در منزل برادرش ( شيخ عبد الكريم مغنيه ) اقامت گزيد . او بخشى از كتاب قطرالندى را از شيخ عبد الكريم درس گرفت و كتاب اجروميّه را براى بار دوم از سيد محمّد سعيد فضل اللّه ، كه در بسيارى از دانش‌هاى حوزوى چون ادبيات عرب ، منطق ، معانى ، بيان ، اصول‌فقه و فقه صاحب‌نظر بود ، فراگرفت .